Trong thời gian cai trị của Tùy Văn Đế (581–604), Lý Uyên được luân chuyển làm thứ sử của Tiều châu, Lũng châu, Ký châu.

Vào đầu thời gian cai trị của Tùy Dạng Đế, Lý Uyên lần lượt giữ chức thái thú của Huỳnh Dương quận và Lâu Phiền quận (Dạng Đế đổi châu thành quận). Đến năm Đại Nghiệp thứ 9 (613), Lý Uyên giữ chức "vệ úy thiếu khanh". Khi Tùy Dạng Đế tiến hành cuộc viễn chinh Cao Câu Ly lần thứ hai vào năm 613, Lý Uyên đốc vận ở Hoài Viễn trấn. Khi tướng Dương Huyền Cảm nổi dậy gần đông đô Lạc Dương, Tùy Dạng Đế hạ chiếu Lý Uyên trấn thủ và quản lý việc quân sự ở Hoằng Hóa quận (phía tây Đồng Quan), song quân nổi dậy của Dương Huyền Cảm cuối cùng đã không tiến đến khu vực đó. Lý Uyên nhân cơ hội này đã kết nạp nhiều hào kiệt theo mình.

Sau đó, khi Tùy Dạng Đế triệu Lý Uyên đến yết kiến, Lý Uyên đã khước từ, viện lý do bị bệnh. Tùy Dạng Đế không tin Lý Uyên thực sự bị bệnh, và đã hỏi Vương thị (cháu gọi bằng cậu của Lý Uyên) tại hậu cung: "Khả đắc tử phủ?". Lý Uyên sợ hãi, đành cố chìm đắm trong rượu và nhận hối lộ để thể hiện cho Tùy Dạng Đế thấy rằng ông không có tham vọng lớn. Năm 615, Tùy Dạng Đế đến Phần Dương cung, lệnh cho Lý Uyên đi đến Sơn Tây, Hà Đông chống lại các cuộc khởi nghĩa nông dân. Năm 616, Lý Uyên được về kinh, đổi chức quan thành "hữu kiêu vệ tướng quân". Sang năm 617, Tùy Dạng Đế phái Lý Uyên đi giữ chức lưu thủ Thái Nguyên (太原, nay thuộc Thái Nguyên, Sơn Tây).